Sau năm 1954, ông tiếp tục giữ các cương vị quan trọng Đại biểu Quốc hội Việt Nam (Khóa II, Khóa III, Khóa IV), Bí thư Tỉnh ủy Thanh Hóa, Trưởng ban Nông nghiệp Trung ương, Bộ trưởng Bộ Lao động Việt Nam, Đại sứ Việt Nam Dân chủ Cộng hòa tại Liên Xô.

Năm 1960, tại Đại hội Đảng lần thứ 3, ông được bầu làm Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam và làm Trưởng ban Nông nghiệp Trung ương.[1]

Từ năm 1960 đến năm 1965, ông tham gia công tác Quốc hội, được bầu làm Ủy viên Ủy ban Thường vụ Quốc hội, Ủy viên Ủy ban Kế hoạch và Ngân sách [2]. Ngày 11 tháng 10 năm 1965 Ủy ban Thường vụ Quốc hội ra Nghị quyết số 166 miễn nhiệm chức ủy viên Ủy ban Thường vụ Quốc hội cho ông để chuyển sang nhận nhiệm vụ ở Hội đồng Chính phủ.[3]

Tháng 10 năm 1965, ông được bổ nhiệm giữ chức vụ Bộ trưởng Bộ Lao động, nay là Bộ Lao động - Thương binh và Xã hội thay ông Nguyễn Văn Tạo cho đến tháng 4 năm 1974. Người thay thế ông là ông Nguyễn Thọ Chân.[4]

Từ tháng 3 năm 1974 đến tháng 3 năm 1976, ông được bổ nhiệm chức vụ Đại sứ Việt Nam Dân chủ Cộng hòa tại Liên Xô thay cho ông Võ Thúc Đồng theo Nghị quyết số 440 của Ủy ban Thường vụ Quốc hội.[5] Năm 1975 ông còn kiêm thêm chức Đại sứ đặc mệnh toàn quyền của Việt Nam tại Afghanistan.[6]

Từ ngày 6 tháng 3 năm 1976 đến tháng 9 năm 1976, ông là Bí thư Tỉnh ủy đầu tiên của tỉnh Bình Trị Thiên (Quảng Bình, Quảng Trị và Thừa Thiên). Đến tháng 10 ông Bùi San được Ban Bí thư Trung ương Đảng cử thay ông làm Bí thư Tỉnh ủy.[7]

Tháng 12 năm 1976, tại Đại hội Đảng Cộng sản Việt Nam lần thứ IV, ông được bầu làm Ủy viên Trung ương Đảng khóa IV (1976 – 1982).[8]

Từ năm 1976 đến năm 1980, ông tiếp tục làm Đại sứ Việt Nam tại Liên Xô lần thứ 2. Khi hết nhiệm kỳ, người thay thế là ông Nguyễn Hữu Mai.[9]

Sau đó ông giữ chức vụ Bí thư Ban Cán sự Đảng ngoài nước cho đến khi nghỉ hưu.

Năm 2005 ông mất tại Hà Nội.